正交化
一般调试参数时，都会设计正交化的参数，避免当前参数影响到其他参数
满足指标和优化指标
贝叶斯最优误差：模型能顾达到的极限误差
bias:训练集误差 varance:验证集误差
人工分析错误
确定人类误差，训练误差，验证集误差，定位是过拟合还是数据集的分布不一致
多任务学习
Loss func:
$loss = -\frac{1}{m}\sum_{i=1}^n\sum_{j=1}^mL(\hat{y_j^{(i)}},{y_j^{(i)}})$
$L(\hat{y_j^{(i)}},{y_j^{(i)}}) = y_j^{(i)}log\hat{y_j^{(i)}}+(1-y_j^{(i)})log(1-\hat{y_j^{(i)}})$
不同于softmax，多任务学习的预测值可能有多个标签